Kim là con trai của Kim Nhật Thành và Kim Song-ae, thư ký cũ của Kim Nhật Thành. Kim có một em trai, Yong-il, và một chị gái cùng cha khác mẹ, Kyong-hui, người tiếp tục kết hôn với quan chức cấp cao v Ông được đặt theo tên của một người con trai khác có cùng tên, người được sinh ra ở Vyatskoye năm 1944; người con trai đó, còn được gọi là Shura Kim, bị cáo buộc chết đuối ở Bình Nhưỡng vào năm 1947.[3] Ông tốt nghiệp Đại học Kim Nhật Thành chuyên ngành kinh tế, và sau đó theo học trường Đại học Chiến tranh Quốc gia Kim Nhật Thành, sau đó ông được bổ nhiệm làm chỉ huy tiểu đoàn.

Cuộc cạnh tranh của Kim Pyong-il với người anh em cùng cha khác mẹ Kim Jong-il có từ những năm 1970. Vào thời đó, Kim Pyong-il được biết là người khá khoa trương và rất hào phóng, nhiều người tâng bốc ông ấy bằng cách tung hô 'Kim Pyong-il muôn năm!". Khi biết tin, ông Kim Nhật Thành rất tức giận,[4] Kim Pyong-il bị "thất sủng" trong khi vị thế của Kim Jong-il được củng cố. Kim Pyong-il sau đó được cử ra nước ngoài công tác trong lĩnh vực ngoại giao.